Kunstmatige intelligentie wordt niet vaak geassocieerd met economen. Maar als het aan econoom Sendhil Mullainathan ligt, zal dit snel veranderen. Met aanstekelijk enthousiasme vertelt de 47-jarige hoogleraar gedragseconomie en informatica aan Chicago University over de eindeloze toepassingen van kunstmatige intelligentie binnen de economische wetenschap. En over de rol die economen kunnen spelen bij het reguleren van deze technologie.
Op 20 november zal de in Nederland nog onbekende econoom tijdens de Nederlandse Economenweek een lezing geven over machine learning – een vorm van kunstmatige intelligentie – en hoe dit bij beleid kan worden toegepast.
Machine learning
Bij machine learning gaan algoritmen op zoek naar verbanden in grote hoeveelheden data. Eerst moeten die algoritmen wel getraind worden. Daarbij krijgen ze een hoop gegevens voorgeschoteld: een grote set kenmerken, plus de uitkomsten die bij die kenmerken horen. Denk bijvoorbeeld (qua kenmerken) aan de financiële gegevens en alle tekst uit de jaarverslagen van duizend bedrijven, en (als uitkomst) de waarde van hun aandeel. Zo leert het algoritme dan te voorspellen welke kenmerken tot welke uitkomsten zullen leiden. Vervolgens laten de onderzoekers het algoritme los op nieuwe data om te analyseren hoe accuraat de voorspellingen zijn.
Een bekendere methode om verbanden in data te vinden is de regressieanalyse. Maar anders dan bij een regressieanalyse kan een machine-learning-algoritme werken met duizenden variabelen, zelfs al zijn er slechts duizend datapunten. Toch kan het de regressieanalyse niet zomaar vervangen. “Een regressieanalyse is vooral nuttig voor het vinden van causale verbanden, zoals: hoe groot is het effect van x op y? Terwijl we daar bij machine learning helemaal niet in geïnteresseerd zijn. Het doel is om te verkennen tot welke uitkomst een combinatie van variabelen zal gaan leiden. De kracht van machine learning is dat we nu tot goede voorspellingen kunnen komen, iets waar economen veel te weinig tijd aan besteden.”
Het probleem met economen is dat, als ze zich aan voorspellingen wagen, ze zich teveel op de grote plaatjes richten, zegt Mullainathan. “Niemand kan voorspellen wat de wereld als geheel morgen gaat doen. Terwijl je wel op microniveau hele goede voorspellingen zou kunnen doen. Stel je voor dat je met een algoritme kan voorspellen hoe lang iemand met een bepaalde opleiding en werkervaring werkloos zal blijven. Dat is voor die persoon hele nuttige informatie. En als je die informatie hebt over heel veel mensen, dan is het ook op een hoger niveau zinvol. Wanneer je je eenmaal verdiept in machine learning zie je ineens overal dit soort van mogelijke voorspellingen op microniveau.”
Verkeerde algoritmen
Niet iedereen is onverminderd enthousiast over machine-learning-algoritmen. Het zou bijvoorbeeld discriminatie in de hand werken. Zo kwam Amazon in het nieuws met een algoritme om mensen aan te nemen dat systematisch vrouwen discrimineerde (Gils, 2020). Hoe kan je voorkomen dat een algoritme bestaande vooroordelen uitvergroot? “Als je, zoals Amazon, een algoritme traint om de mensen te vinden die recruiters normaliter uitnodigen voor een sollicitatie, dan is het evident dat het algoritme dezelfde fouten gaat maken, en dus ook weinig vrouwen en minderheden uitnodigt”, legt Mullainathan uit. “Een student die wat weet over statistische discriminatie had Amazon meteen kunnen vertellen wat er fout zou gaan bij dit algoritme. Algoritmen zijn, net als regressieanalyses, heel gevoelig voor de uitkomstvariabele die je kiest – en of die biased is of niet.”
Een goed gebouwd algoritme kan echter juist menselijke vooroordelen verminderen of elimineren, benadrukt de econoom. Dat komt ook naar voren in een onderzoek waarbij hij met machine learning de uitspraken van rechters in New York onder de loep neemt (Mullainathan et al., 2017). Dagelijks beslissen rechters, op basis van hun inschatting van het vluchtgevaar, of misdaadverdachten op borgtocht vrij mogen. Een klassiek voorspellingsprobleem dus. De resultaten zijn verbluffend. Als algoritmen evenveel verdachten vrijlaten als rechters, leiden hun keuzes er toe dat er 24,7 procent minder misdaden zijn. Omgekeerd zouden ze bij eenzelfde misdaadcijfer 41,8 procent minder mensen in de cel houden. Opvallend is dat rechters vooral vaker verdachten met een Afro-Amerikaanse of Latino-achtergrond vastzetten, ook als het algoritme juist een laag vluchtgevaar voorspelt.
Dat er een verschil zou zijn tussen algoritmen en rechters, had hij wel gedacht. “Maar dat het zo groot zou zijn? Nee. Al weten we vanuit de gedragseconomie al langer dat mensen bijzonder slecht zijn in kansen inschatten op basis van data.”
Moeten algoritmen dan maar de beslissingen van rechters overnemen? Zo ver wil Mullainathan niet gaan. “Algoritmen kunnen hele specifieke taken overnemen, waar wij zelf slecht in zijn, maar het is zeker geen magie. Als je een algoritme in een rechtszaak bijvoorbeeld de straf laat bepalen, dan gaat er echt iets fout. Een machine voelt niet aan of iemand spijt heeft en of een straf rechtvaardig is. Maar met deze resultaten kunnen we wel rechters vooral beter opleiden en een spiegel voorhouden.”
Toch zou Mullainathan in sommige gevallen liever worden beoordeeld door een algoritme dan door een mens. “Het hangt er echt van af of een algoritme wordt gebruikt voor een probleem waar het geschikt voor is. In sommige gevallen zou ik liever hebben dat informatie op een neutrale manier wordt verwerkt, door een machine. Bijvoorbeeld bij medische toepassingen, zoals het bepalen van de kans dat een ingrijpend medisch onderzoek, op basis van mijn labgegevens en andere data, voor mij nuttig zal zijn.”
Er loeren ook gevaren bij machine learning, zeker als private partijen met algoritmen aan de slag gaan. Zouden economen zich meer bezig moeten houden met de ethiek van machine learning? “Absoluut. Economen zijn echt te weinig betrokken bij ethische discussies over de schaduwkant van algoritmen. Terwijl veel van de problemen die daarbij spelen al bekend zijn bij economen – wij hebben bijvoorbeeld al jarenlang ervaring opgedaan hoe je om moet gaan met discriminatie bij bijvoorbeeld regressieanalyses.”
Regulering
Naast de ethische discussie kunnen economen ook bijdragen aan de regulering van algoritmen. Volgens Mullainathan gaat machine learning de verdeling van informatie binnen markten, een van de stokpaartjes van economen, veranderen. “Vroeger wist jij meer over je eigen gezondheid dan een zorgverzekeraar, wat lastig was voor verzekeraars die het liefst de meest gezonde mensen verzekeren. Nu is dat omgekeerd en moeten patiënten zich zorgen gaan maken. Bedrijven zullen algoritmen gaan gebruiken om hun eigen doelen te optimaliseren, goed of slecht. Dat kan bijvoorbeeld betekenen dat sommige mensen zich niet meer kunnen verzekeren. Daarom is het van belang dat economen manieren bedenken om markten zo te reguleren dat we profiteren van de voordelen van nieuwe technologie, maar dat we de ‘slechte uitkomsten’ zo veel mogelijk vermijden.”
Creatieve duizendpoot
Naast machine learning houdt Mullainathan zich nog bezig met legio andere onderwerpen. Opvallend is zijn interesse in armoede. Hij schreef onder meer een boek over de psychologische effecten van schaarste, en richtte samen met de Nobelprijswinnaars Esther Duflo en Abhijit Banerjee het Abdul Lateef Jameel Poverty Action Lab op, gericht op het bestrijden van armoede via onderzoek. Waar komt zijn motivatie vandaan?
“Armoede vormt, net als discriminatie, een ernstige vorm van persoonlijk lijden, en ik vind dat ik daar iets mee moet. Bij armoede wil ik bijvoorbeeld weten hoe dit je denken beïnvloedt. En discriminatie is meer dan alleen het niet aannemen van bepaalde mensen: het demotiveert, laat je slecht voelen over jezelf en ondermijnt je zelfvertrouwen. Er is weinig erger dan het gevoel hebben dat je niet wordt beoordeeld naar wie je bent, maar naar je ras of je geslacht.
Een andere drijfveer is de behoefte om steeds iets vernieuwends te doen. “Je kunt nooit meer de eerste persoon zijn die een berg beklimt. Maar je kunt wel de eerste wetenschapper zijn die met een idee of een instrument komt, om daarmee de wereld vooruit te helpen.”
Zijn veelzijdigheid is tamelijk uniek binnen de economische wetenschap. Zou hij het andere economen adviseren? “In het begin van je carrière is het belangrijk om te doen wat de universiteit van je vraagt, en je te specialiseren. Maar zodra je een vaste aanstelling hebt, is het je plicht om juist risico’s te nemen, en dingen te doen waarvan je niet zeker weet of je ervoor beloond zal worden in de vorm van bijvoorbeeld publicaties. Als je niet experimenteert en probeert om dingen anders te doen dan anderen, dan neem je wat mij betreft niet de verantwoordelijkheid die bij zo’n vaste aanstelling komt kijken.”
Mullainathan hoopt dat hij machine learning nu voldoende op de kaart heeft gezet voor de jonge garde van economen, zodat hij zich weer op een nieuw onderwerp kan storten. Bescheiden voegt hij toe: “Onderzoek doen samen met twintig andere mensen is leuker dan alleen, maar ik heb dan al snel het idee dat ik niet veel meer waarde toevoeg. Die twintig anderen kunnen hetzelfde als ik, maar dan beter.”
Een volgend onderzoeksgebied heeft de econoom nog niet bepaald, al wil hij off the record wel graag een idee met ons delen. We zijn benieuwd wat we daar in de komende jaren nog over zullen gaan horen.
Literatuur
Gils, S. van (2018) Amazon ziet af van sollicitatierobot die vrouwen discrimineert. Het Financieele Dagblad, 10 oktober.
Mullainathan, S., J. Kleinberg, H. Lakkaraju et al. (2017) Human decisions and machine predictions. NBER Working Paper, 23180.
Auteurs
Categorieën
